Data Engineering Study #28 データ基盤のCI/CD
イベント内容
過去の Data Engineering Study のアーカイブはこちらからご視聴いただけます。
開催内容
概要
本イベントは、Infra Study Meetup を運営する Forkwell と、データ基盤の総合支援サービス「TROCCO®️」の開発・運営を行う primeNumber による共催イベントです。データ分析に精通した講師をお招きし、データ分析基盤の「これまで」と「これから」を学ぶことを趣旨として開催いたします。
複数回にわたって、各回テーマに沿った内容で各分野でご活躍されているエンジニア/研究者に講演いただきます。
質疑応答の時間には、ゆずたそ氏(@yuzutas0)にもご参加いただきます。
プログラム第28回「データ基盤のCI/CD」
講演①「データ基盤のための Terraform Workflow を tfaction で構築しよう」
鈴木俊輔 seli07 (せりな) 氏(@szkdash)
フリー株式会社 SRE
2015 年に Donuts へエンジニアとして新卒入社し Web サービスの開発に従事。その後 LINE でコーポレートエンジニア、 Quipper, Recruit で SRE, Mercari で Platform Engineer を経て 2024/8 よりフリー株式会社で SRE として従事。
CI/CD のセキュリティや開発者体験の改善、ツールの開発による自動化などに取り組む。
OSS 活動にも力を入れており、様々な OSS に貢献したり自ら OSS を開発したりしています。
▍発表内容
データ基盤に必要な様々なクラウドリソースを Terraform を使って管理する方法についてお話します。
セキュリティやガバナンスを保ちつつ高速にインフラを構築し継続的に管理するには IaC や CI が極めて重要ですが、 Terraform の高度な Workflow を高度することは容易ではありません。
IaC や CI, Terraform の基本的な話から、 GitHub Actions で Terraform の 高度な Workflow を実現する tfaction という OSS の紹介をします。 tfaction の概要から様々な機能の紹介をし、 tfaction を使って如何に高度な workflow が実現できるか説明します。
時間があれば tfaction の今後の展望についてもお話します。
講演②「進化を加速させるデータ基盤CI/CDの実践」
近森 淳平 氏(@pei0804)
VP of Data@CARTA MARKETING FIRM/CARTA HOLDINGS
CARTA HOLDINGS(当時VOYAGE GROUP)のZucksに2018年に新卒入社。広告配信プラットフォームのアプリケーションエンジニアとしてスタート。その後、自社のレポーティング基盤を一新するプロジェクトに携わり、データエンジニアとしてのキャリアをスタート。
現在は、CARTA MARKETING FIRMにおいて、データ基盤の開発・運用、組織設計、採用戦略の立案に携わっています。2024年 Snowflake DataSuperheroesとして、Snowflakeコミュニティ活動にも注力しています。
▍発表内容
データ基盤のCI/CDは、データの品質担保やスキーマ変更など、従来のソフトウェア開発とは異なる課題に直面します。本講演では、これらの技術的な課題と多様なステークホルダーの要求に応えながら、いかに安定的で俊敏な変更管理を実現するかについて、実践的な戦略と実装例を共有。データ基盤の進化を加速させるための具体的なアプローチについて解説します。
タイムスケジュール(目安)
時間 | 内容 |
---|---|
19:00 | オープニング(5分) |
19:05 | 講演①(40分) 鈴木俊輔 seli07 (せりな) 氏「データ基盤のための Terraform Workflow を tfaction で構築しよう」 |
19:45 | 質疑応答(10分) |
19:55 | 共催LT1(5分)Forkwell |
20:00 | 休憩(5分) |
20:05 | 講演②(40分) 近森 淳平 氏「進化を加速させるデータ基盤CI/CDの実践」 |
20:45 | 質疑応答(10分) |
20:55 | 共催LT2(5分)primeNumber |
21:00 | アフタートーク&クロージング |
21:30 | 完全終了予定 |
※ タイムスケジュールは目安です。完全終了21:30までの間で、より参加者にご満足いただける形で各コンテンツ時間が調整される場合がございます。
※ プログラムは変更となる可能性があります。随時こちらで更新いたします。
開催背景
Forkwell からのコメント
本イベントは、Infra Study Meetup に注目していただいた primeNumber さまからのお声がけで実現したイベントです。Infra Study Meetup とは主催する団体、扱うテーマが異なることから、別シリーズとして立ち上げました。Infra Study 参加者と共に得たイベントノウハウを継承し、データ分析領域でも学びの場を作ります。
本家 Infra Study にご参加いただいた方はもちろん、データ分析に関心のある方ならどなたでも参加可能です。エンジニアリングと密接に関わるデータ分析領域について楽しく学んでいただけましたら幸いです。
primeNumber からのコメント
弊社はデータ基盤の総合支援サービス「TROCCO®️」を運営しているのですが、その中で「どういう分析基盤を作っていけばいいのか?」というご質問をよく伺います。そのような方向けに何か有益な情報をご提供できる場はないかと考えた時に、本イベントの開催を思いつきました。
そんなタイミングで、「Infra Study Meetup」という反響が大きいイベントがあるのを見つけ、「データ分析基盤」版を作りませんかとお声がけした所から開催に至りました。
これから分析基盤を作ろうとされている方や、現在運用中の基盤の改善アイデアを探している方に、有益な場に出来ればと思っております。
これまでの勉強会で扱ったテーマとアーカイブ動画
- 2020/07/15(水)|第1回「モダンなDWH/BIツールの選び方と、実際の運用事例」
- 2020/08/19(水)|第2回「データ収集基盤とデータ整備のこれまでとこれから」
- 2020/09/16(水)|第3回「分析基盤をうまく組織に浸透させる方法」
- 2020/11/04(水)|第4回「データ分析基盤の障害対応事例LT祭り」
- 2020/12/02(水)|第5回「噂のSnowflake Deep Dive / 国内事例・他DWHとの比較」
- 2021/02/03(水)|第6回「改めて学ぶ、BigQuery徹底入門」
- 2021/04/06(火)|第7回「Redshift最新アップデートと活用事例」
- 2021/06/02(水)|第8回「BIツール特集-OSS・商用の上手い使い分け」
- 2021/08/03(火)|第9回「企業規模別データエンジニア組織の作り方」
- 2021/10/06(水)|第10回「王道BIツール特集 Tableau / PowerBI / Googleデータポータル」
- 2021/12/13(月)|第11回「6社のデータエンジニアが振り返る2021」
- 2022/02/09(水)|第12回「エンジニアのための「データ可視化」入門」
- 2022/04/06(水)|第13回「ELT・データモデリングツール特集回」
- 2022/06/08(水)|第14回「Modern Data Stack特集」
- 2022/08/03(水)|第15回「Reverse ETL 特集回」
- 2022/10/19(水)|第16回「データカタログ入門」
- 2022/12/14(水)|第17回「6社のデータエンジニアが振り返る2022」
- 2023/02/15(水)|第18回「データ指向アプリケーションデザイン」
- 2023/04/20(木)|第19回「データエンジニアのキャリアを考える」
- 2023/06/30(金)|第20回「10年戦えるデータ分析入門」
- 2023/08/30(金)|第21回「Azureのデータ分析サービスの現在と未来」
- 2023/12/12(金)|第22回「5社のデータエンジニアが振り返る2023」
- 2024/03/05(火)|第23回「Data orchestration 特集」
- 2024/06/27(木)|第24回「データドリブン組織を支える技術」
- 2024/08/28(水)|第25回「データカタログの現在地」
- 2024/10/29(火)|第26回「データ活用における個人情報データの取り扱い」
- 2024/12/10(火)|第27回「データ基盤振り返りLT会(オフライン開催)」
留意事項
- Data Engineering Study コミュニティガイドライン を事前にご確認ください。
- イベント参加時にご入力いただいた情報は、次のプライバシーポリシーに基づき、primeNumber のみで適切に扱います。 https://primenumber.co.jp/privacy/
主催・協力
主催/コミュニティ支援協賛
ITエンジニアのキャリアに本気で向き合う転職サイト Forkwell(フォークウェル)
データ基盤の総合支援サービス「TROCCO®️」の開発・運営を行う primeNumber
注意事項
※ 掲載タイミングや更新頻度によっては、情報提供元ページの内容と差異が発生しますので予めご了承ください。
※ 最新情報の確認や参加申込手続き、イベントに関するお問い合わせ等は情報提供元ページにてお願いします。
